Vì chi phí thấp cộng thêm thời gian thiết kế hạn hẹp, thiết kế phần cứng của chiếc PC sử dụng hoàn toàn linh kiện ngoài từ các nhà sản xuất bên thứ ba, thay vì được thiết kế bởi IBM.

Chiếc PC được đặt trong một lồng thép rộng, thấp để có thể đỡ được một màn hình CRT. Mặt trước được làm từ nhựa, hở ngăn để chứa một đến hai ổ đĩa. Mặt sau có lỗ để cắm điện nguồn, bàn phím, và một dãy các khe dọc để gắn vào các card mở rộng như vẫn thấy ở PC ngày nay.

Bo mạch chủ

Chứa CPU, RAM, các khe cắm mở rộng ISA và hai cổng bàn phím/cassette. Các chip ngoại vi bao gồm có bộ điều khiển ngắt (Programmable Interrupt Controller-PIC) 8259, bộ điều khiển truy câp động bộ nhớ (Dynamic Memory Accesss-DMA) 8237 và bộ đếm thời gian (Programmable Interval Timer-PIT) 8253. PIT cung cấp xung 18.2 Hz và làm tươi bộ nhớ động, và được dùng để tạo âm thanh từ loa trong.

CPU và RAM

CPU là Intel 8088, một phiên bản rẻ hơn của Intel 8086. 8088 giống 8086 về mặt kiến trúc bên trong 16 bit, nhưng chỉ có bus 8 bit. CPU sử dụng xung 4.77MHz. Các máy nhái và các dòng về sau sử dụng CPU với xung cao hơn (6MHz, 8MHz) không tương thích với một số phần mềm thiết kế ban đầu cho PC.

Có một chân cắm IC để trống dành cho bộ xử lý dấu phẩy động (Floating-point Unit-FPU) 8087, làm tăng tốc các phép tính dấu phẩy động.

PC mặc định có 16 hoặc 64 kB bộ nhớ. Nâng cấp RAM được IBM và nhiêu hãng bên thứ ba cung cấp dưới dạng card mở rộng, và có thể nâng cấp lên thành 256kB.

ROM-BIOS

Là phần sụn (firmware) của PC, nằm trong bốn ROM, mỗi chip 2 kB. Nó bao gồm một đoạn mã khởi động (bootstrap) và một số giao diện dùng cho việc vẽ lên màn hình, đọc từ bàn phím, hay đọc/ghi đĩa v.v.

Thiết bị nhập xuất

Màn hình

Khác với hầu hết các máy tính gia đình đều có tích hợp sẵn đầu ra video, IBM PC có hai tùy chọn cho hiển thị là card rời Monochrome Display Adapter (bộ điều hợp hiển thị đơn sắc) và Color Graphics Adapter (bộ điều hợp hiển thị màu). MDA xuất ra văn bản có độ phân giải cao hơn CGA nhưng không có chế độ đồ họa, còn CGA xuất ra đồ họa và văn bản độ phân giải thấp đến trung bình.

CGA cùng sử dụng một tần số quét của chuẩn TV NTSC, do đó có thể xuất ra tín hiệu tổng hợp để có thể dùng với TV, ngoài ra còn có đầu ra ngưỡng TTL để sử dụng với các màn hình RGBI trên thị trường với tần số NTSC. Phải tới năm 1983, IBM mới cho ra màn hình màu 5153.

MDA sử dụng tần số cao hơn và đòi hỏi phải có màn hình riêng là IBM 5151. Trên MDA còn tích hợp sẵn một cổng máy in.

Có thể lắp cả hai card song song phục vụ các ứng dụng có cả văn bản và đồ họa như phần mềm bảng tính Lotus 1-2-3, AutoCAD, v.v. Sau đó xuất hiện trên thị trường loại card Hercules hỗ trợ cả hai trong một và được các hãng phần mềm ưa chuộng.

Bàn phím

PC sử dụng bàn phím mô hình F ban đầu được thiết kế cho Datamaster. Nó tốt hơn rất nhiều các bàn phím sử dụng cho các máy tính gia đình về nhiều mặt: số phím, sự bền bỉ và tính công thái học.

Đĩa

Có thể lắp đặt hai ổ đĩa mềm 5.25 inch cho PC, hỗ trợ các đĩa mềm hai mặt 320kB. Để sử dụng đĩa mềm cần kết nối ổ đĩa với một card điều khiển bằng một dây cáp dẹp. Card điều khiển của IBM còn có thêm một cổng ngoài để kết nối với ổ đĩa ngoài.

Cũng như các máy tính gia đình ngày đó , PC có thêm một cổng để kết nối với máy thu cassette. Tuy nhiên cổng này hầu như không được sử dụng nên bị bỏ kể từ dòng PC/XT.

Vào thời điểm công bố IBM không có bất cứ tùy chọn ổ cứng nào và vắn đề là bộ nguồn không cung cấp đủ điện cho một ổ cứng hoạt động. Ngoài ra BIOS và PC DOS các phiên bản đầu cũng không hỗ trợ ổ cứng.

Giao tiếp

Có thể kêt nối PC với các máy tính khác hay thiết bị ngoại vi thông qua cổng tuần tự (hay còn gọi là cổng COM hay RS-232) và song song (còn gọi là cổng máy in).

Mở rộng

Khả năng mở rộng của PC góp phần lớn mang lại thành công cho dòng máy. Nhiều ấn phẩm nhấn mạnh quyết định khác thường của IBM khi họ công bố một cách đầy đủ, kỹ lưỡng các chi tiết kỹ thuật về bus hệ thống, sắp xếp bộ nhớ ngay khi phát hành máy, nhằm khuyến khính phát triển một thị trường các phần mềm và phần cứng tương thích.

Bo mạch chủ của PC có 5 khe cắm rìa 62 chân, kết nối tới các đường dữ liệu vào/ra của CPU. IBM ban đầu gọi chúng là khe cắm vào/ra. tuy nhiên về sau khi nền tảng PC đã thống trị và xuất hiện các chuẩn khe cắm khác, người ta gọi chúng là Industry Standard Architecture (ISA - kiến trúc chuẩn công nghiệp).